QuasiMoTTo: Quasi-Monte Carlo Test-Time Scaling
QuasiMoTTo:准蒙特卡洛测试时扩展
🧭 QMC 相关采样 · 推理与RL 样本效率 ★ 深度解读
Stanford University
用准蒙特卡洛相关采样替代独立采样,推理与RL训练中样本效率提升25-50%
📌 工作参考价值(4 点)
- 在推荐排序/agent 推理的 beam search 或并行采样中,可用 lattice QMC 生成更均匀覆盖的候选集,减少冗余生成,维持每条候选的边缘分布不变(即仍是原策略的准确样本),从而在相同成本下提升 recall 或 pass@k。
- 在策略梯度训练(如 GRPO)中,通过 QMC 采样提高组内样本多样性,可以降低零方差组的比例,增大有效梯度样本数,加速收敛;可尝试在广告竞价策略或推荐对话策略训练中引入。
- 算术编码的逆 CDF 采样方法本身实现了低 overhead 的并行生成,可复用到任何需要高效并行生成的场景(如搜索召回时的多条 query 改写)。
- 对于已有独立采样的系统,QMC 采样是几乎零成本的 drop-in 替换,仅需在 batch 生成前生成均匀随机数并传递给解码器,不改变模型推理逻辑。